HiSTEVE 1.0: Harnessing Human-Interface VLA Agents for Open-World Games
HiSTEVE 1.0：面向开放世界游戏的通用人机接口 VLA 智能体
🧭 层级 VLA 智能体原生界面控制
The University of Hong Kong · Zhejiang University · Fudan University · LIGHTSPEED · Independent Researcher
分层 VLA 智能体结合 VLM 规划与原生键鼠控制，在 Minecraft 原子与长程任务上达到 SOTA
📌 工作参考价值（4 点）
- 层级式 Agent 设计可借鉴：VLM 仅做高层子任务规划，低层 VLA 执行具体动作，中间用结构化记忆跟踪进度；在电商导购/广告投放操作助手中可采用「规划-执行-记忆」分离，降低单模型长程推理负担。
- 能力边界感知的 harness 值得落地：规划器只在执行策略能力范围内选择子任务，避免下达无法执行的动作；对应到推荐对话 Agent，可维护「可调用技能/工具白名单」，让 LLM 规划时显式约束候选动作。
- 完成状态检测器耦合策略上下文：不只靠视觉或 LLM 判断子任务是否完成，而是以 VLA 策略隐状态为条件；在电商 RPA/浏览器自动化中可参考用执行策略的中间表示辅助判断任务完成，减少误判和重复执行。
- 异构交互分支处理可复用：GUI 操作与非 GUI 操作使用不同 RMSNorm 分支和独立鼠标移动 token embedding，避免相互干扰；统一 Agent 同时操作网页、调用 API/工具时，可对不同 action 类型分域建模，降低冲突。